Gaze Heads: How VLMs Look at What They Describe
凝视头：视觉语言模型如何注视其所描述内容
🧭 视觉语言模型 · 注意力机制 · 模型操控 ★ 深度解读
Northeastern University
VLM 中仅 9% 的注意力头（凝视头）能跟踪当前生成的图像区域，重定向这些头即可控制模型描述目标区域。
📌 工作参考价值（4 点）
- 推理时低成本控制 VLM 描述焦点：通过仅修改不到 9% 的注意力头（凝视头）的注意力掩码，无需重新训练即可将模型输出重定向到图像的任意区域，可用于多模态商品描述、QA 等场景，强制模型聚焦于指定商品或特征。
- 低资源发现关键 head 的方法：使用简单的“凝视分数”（不同查询下注意力转移的对角相关性）在少量前向传播中定位可操控的 head 集，工程上容易复现，可用于其他多模态模型的分析与微调指导。
- 动态注意力干预：可在生成过程中实时切换凝视目标，让模型逐段描述不同区域，类似对话式交互中逐步引导模型关注不同商品或属性，为可控多模态对话提供新接口。
- 注意：仅对联合训练视觉编码器的 VLM 有效（如 Qwen3-VL、InternVL），对冻结编码器的模型（LLaVA、Bunny）效果差，选型时需留意架构差异。